Подвеждащите сигнали на TikTok включват фалшиво твърдение за Тейлър Суифт и старо предупреждение за цунами

TikTok изпраща неточни и подвеждащи сигнали в новинарски жанр до телефоните на потребителите, в това число подправено изказване за Тейлър Суифт и предизвестие за злополучие отпреди седмици, засилвайки се опасения от разпространяване на дезинформация в известната платформа за видеосподеляне. 

Сред предизвестията, забелязани от Financial Times, беше предизвестие за цунами в Япония, означено като „ разрушително “, което беше оповестено в края на януари, три седмици след земетресението.

Други вести погрешно декларират, че „ Тейлър Суифт анулира всички дати на турне в това, което тя назова „ расистка Флорида “ “ и акцентират петгодишна „ възбрана “ за бейзболен състезател от Съединени американски щати, която произлиза от първоаприлска смешка.

Известията, които от време на време съдържат резюмета от генерирани от потребителите изявления, изскачат на екрана в стила на предизвестие за вести. Изследователите споделят, че този формат, общопризнат необятно за повишение на ангажираността посредством персонализирани видео рекомендации, може да направи потребителите по-малко сериозни към истинността на наличието и да ги отвори за дезинформация.

„ Известията имат този спомагателен щемпел на престиж, “ сподели Лаура Еделсън, откривател в Североизточния университет в Бостън. „ Когато получите уведомление за нещо, постоянно се приема, че е нещо, подбрано от платформата, а не просто инцидентно нещо от вашата емисия. “

Социални медийни групи като TikTok, X и Meta са изправени пред по-строг надзор, с цел да управляват своите платформи, изключително в годината на огромни национални избори, в това число вота през ноември в Съединени американски щати. Възходът на изкуствения разсъдък усилва натиска, като се има поради, че бързо разрастващата се технология прави по-бързо и по-лесно разпространяването на дезинформация, в това число посредством синтетични медии, известни като deepfakes.

TikTok, който има повече от 1 милиард световни консуматори, неведнъж е обещавал да ускори напъните си за противопоставяне на дезинформацията в отговор на натиска от страна на държавните управления по света, в това число Обединеното кралство и Европейски Съюз. През май платформата за шерване на видео се ангажира да стане първата огромна обществена медийна мрежа, която маркира автоматизирано наличие, генерирано от AI. 

Фалшивото изказване за това, че Суифт анулира турнето си във Флорида, което също се популяризира на X, отразява публикация, оповестена през май в сатиричния вестник The Dunning-Kruger Times, макар че тази публикация не е обвързвана или директно посочена в обявата в TikTok.

Поне 20 души споделиха в нишка за мнения, че са кликнали върху известието и са били ориентирани към видеоклип в TikTok, повтарящ изказванието, макар че не са следвали акаунта. Поне един човек в нишката сподели, че в началото е помислил, че известието „ е новинарска публикация “. 

Суифт към момента е планувано да изнесе три концерта в Маями през октомври и не е нарекла обществено Флорида „ расистка “.

Друго ориентирано уведомление неопределено показва, че японски питчър, който играе за Los Анджелис Доджърс беше изправен пред възбрана от Мейджър Лийг Бейзбол: „ Шохей Отани беше ЗАБРАНЕН от MLB за 5 години след следствието му за хазарт . . .  ”

Думите непосредствено съвпадаха с описанието на обява, качена като първоаприлска смешка. Десетки коментатори на истинското видео обаче оповестиха, че са получили сигнали в средата на април. Няколко споделиха, че в началото са повярвали в това, преди да ревизират други източници.

Потребителите също са докладвали за вести, които наподобява съдържат актуализации на вести, само че са били генерирани седмици след събитието.

Един консуматор получи предизвестие на 23 януари, което гласеше: „ ВЪРХУ: В Япония е издадено предизвестие за цунами след огромно земетресение. “ Известието наподобява се отнася до предизвестие за естествено злополучие, издадено повече от три седмици по-рано, откакто земетресение удари полуостров Ното в Япония на Нова година.

TikTok сподели, че е премахнал съответните вести, маркирани от FT.

Сигналите се появяват автоматизирано, с цел да изтрият описанията на изявления, които получават или има възможност да получат високи равнища на ангажираност във вирусното видео приложение, благосъстоятелност на китайската ByteDance, споделиха откриватели. Изглежда, че са съобразени с ползите на потребителите, което значи, че всеки от тях евентуално ще бъде стеснен до дребен набор от хора.

„ Начинът, по който са позиционирани тези сигнали, може да се почувства, че платформата приказва непосредствено на [потребителите], а не просто на афиш “, сподели Кайтлин Регер, доцент по цифрови филантропични науки в University College Лондон. 

TikTok отхвърли да разкрие по какъв начин приложението дефинира кои видеоклипове да разпространява посредством вести, само че самият размер от рекомендации за персонализирано наличие би трябвало да бъде „ алгоритмично генериран “, сподели Дани Мадрид-Моралес, един от ръководителите на Университета на Изследователски клъстер за дезинформация на Шефилд.

Еделсън, който също е съдиректор на групата Cybersecurity for Democracy, допусна, че виновният логаритъм за ориентирано известяван може да бъде претеглен към надеждни източници, като тествани издатели или длъжностни лица. „ Въпросът е: Избират ли нещо с висок трафик от влиятелен източник? “ сподели тя. „ Или това е просто нещо с огромен трафик? “

Допълнителен репортаж от Хана Мърфи в Сан Франциско и Кристина Кридъл в Лондон